Được thành lập bởi Daniel Blumberg và Max Bloom, bộ đôi bắt đầu viết nhạc cho Yuck sau khi rời Cajun Dance Party năm 2008. Sau khi đã phát hành hai đĩa đơn trên đĩa nhựa ("Rubber", và "Georgia") vào năm 2010, và bổ sung Jonny Rogoff (trống) và Mariko Doi (bass) (người cũng vừa rời nhóm Levelload), Yuck bắt đầu thu âm album đầu tay của họ vào màu hề năm đó.[17]

Yuck phát hành đĩa đơn chính thức đầu tiên, "Holing Out", để quảng bá cho album ngày 20 tháng 2 năm 2011.